当前位置:首页  资讯大全  科技

以夸娥千卡集群为底座 摩尔线程与无问芯穹联手开启千亿大模型服务新篇章

以夸娥千卡集群为底座 摩尔线程与无问芯穹联手开启千亿大模型服务新篇章

日期:2024-04-01 18:16:13来源:快科技浏览:

3月31日,无问芯穹AI算力优化论坛暨产品发布会在上海成功举办,重磅发布了“无穹Infini-AI”大模型开发与服务平台,并宣布与国内AI芯片领军企业摩尔线程达成深度战略合作。这一强强联合旨在基于摩尔线程大模型智算千卡集群夸娥(KUAE),携手打造集高效算力、便捷调度、稳定运行于一体的全国产大模型算力服务和云端调度平台,为更多用户开展大模型开发、训练、运行、应用提供完整的交钥匙解决方案。

无穹Infini-AI大模型开发与服务平台是基于无问芯穹的智算云平台,针对生成式大模型的应用落地的多种场景需求,为应用开发者提供高性能、易上手、安全可靠的大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。目前,无穹Infini-AI已支持了Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5等系列模型共20多个模型。

[MD:Title]
图注:无穹Infini-AI平台演示

当前,无穹Infini-AI与摩尔线程大模型智算千卡集群夸娥(KUAE)已顺利完成系统级融合适配,并完成了LLama2-70B大模型的训练测试。发布会现场演示了无穹Infini-AI如何灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。

[MD:Title]
图注:摩尔线程联合创始人兼执行总裁王东、无问芯穹联合创始人兼CEO夏立雪作为双方代表进行了现场签约

摩尔线程是第一家接入无问芯穹并成功完成千卡级别大模型训练的国产GPU公司。无问芯穹联合创始人兼CEO夏立雪表示:“经验证,摩尔线程夸娥千卡智算集群在性能、稳定性、易用性和算力利用率上均有优异表现,可以为千亿参数级别大模型训练提供持续高效的高性能算力支持。”双方的合作是国产算力产业链上下游携手推动大模型落地应用的完美例证。

摩尔线程联合创始人兼执行总裁王东表示,“基于先进的MUSA架构,摩尔线程已建立了从芯片、板卡、集群到软件的全栈AI产品线。摩尔线程夸娥智算集群是以全功能GPU为底座、软硬一体化的全栈解决方案,凭借高兼容性、高稳定性、高扩展性等综合优势,我们致力于成为大模型训练坚实可靠的先进基础设施。”

无问芯穹依托行业领先且经过验证的AI计算优化能力与算力解决方案,追求大模型落地的极致能效。打造 “M 种模型” 和 “N 种芯片” 间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署。链接上下游,共建AGI时代大模型基础设施,加速AGI落地千行百业。摩尔线程作为国内AI芯片领军企业,旨在为广泛的生态合作伙伴提供强大的AI计算加速能力,可充分赋能大模型AIGC、数字孪生、物理仿真等场景,驱动各行业智能变革,致力于为新质生产力提供 AI原动力。

基于此次战略合作,无问芯穹与摩尔线程将携手共进,开展更多适配与测试,推动国产大模型技术的快速发展与应用普及,为中国人工智能产业的蓬勃发展贡献力量。

+++

关于摩尔线程

摩尔线程智能科技(北京)有限责任公司是一家以全功能GPU芯片设计为主的集成电路高科技公司,能够为广泛的科技生态合作伙伴提供强大的计算加速能力,致力于打造为下一代互联网提供多元算力的元计算平台。

* 特别声明:资源收集自网络或用户提供,版权归原作者所有,如侵犯您的权益,请联系我们处理。